Ексклузивно: Американското разузнаване забеляза китайски и ирански deepfakes през 2020 г., целящи да повлияят на гласоподавателите в САЩ
Оперативни служители, работещи за китайското и иранското правителство, са подготвили фалшиво, генерирано от изкуствен интелект съдържание като част от кампания за влияние върху гласоподавателите в САЩ през последните седмици на предизборната кампания през 2020 г., казаха пред CNN настоящи и бивши американски служители, информирани за разузнаването.
Китайските и иранските агенти никога не са разпространили дълбоко фалшивото аудио или видео публично, но необявените по-рано разузнавателни данни показват опасенията на американските служители преди четири години относно желанието на чуждестранните сили да разширят невярна информация относно процеса на гласуване.
Агенцията за национална сигурност е събрала разузнавателна информация, която е дала на американските служители представа за способностите на Китай и Иран да произвеждат дълбоки фалшиви съобщения, каза един от източниците.
Сега, когато дълбоко фалшивото аудио и видео е много по-лесно за производство и президентските избори са само след шест месеца, американските служители са станали по-загрижени за това как една кампания за чуждестранно влияние може да използва изкуствения интелект, за да подведе гласоподавателите.
По време на учение в Ситуационната зала на Белия дом миналия декември в подготовка за изборите през 2024 г. висши американски служители се бориха как да отговорят на сценарий, при който китайски оперативни служители създават фалшив видеоклип, генериран от AI, изобразяващ кандидат за Сената, който унищожава бюлетини, както CNN преди това направи докладвани.
На брифинг миналата седмица служители на ФБР предупредиха, че ИИ увеличава способността на чужди държави да разпространяват дезинформация за изборите.
Не е ясно какво е изобразено в дълбоките фалшификати, които китайските и иранските агенти са подготвили през 2020 г., според източниците, или защо в крайна сметка не са били разположени по време на тези избори.
По онова време някои американски служители, които прегледаха разузнавателните данни, не бяха впечатлени, вярвайки, че те показват, че Китай и Иран нямат способността да внедряват дълбоки фалшиви съобщения по начин, който би повлиял сериозно на президентските избори през 2020 г., каза бивш високопоставен американски служител пред CNN.
„Технологията трябва да е добра; Не мисля, че беше толкова добре“, каза бившият служител. „Второ, трябва да имате склонност към риск. Китай, не. Иран, вероятно да."
Следене на противниците
NSA продължи да събира разузнавателна информация за чуждестранни противници, разработващи дълбоки фалшификации и потенциалната заплаха, която те представляват за изборите в САЩ сега, когато технологията напредна драматично през последните четири години, добави бившият високопоставен служител, като посочи, че през 2020 г. не е имало , например голям езиков модел като ChatGPT, който беше лесен за използване.
CNN поиска коментар от NSA.
Американски служители поддържат високо ниво на видимост в напредъка на ИИ и дълбоките фалшиви дейности, направени от страни, включително Китай, Иран и Русия, след изборите през 2020 г. Но използването на тези разузнавателни данни в САЩ остава предизвикателство, каза бившият служител.
„Въпросът е колко бързо можем да забележим аномалия и след това да я споделим бързо в рамките на Съединените щати“, каза бившият служител пред CNN. „Печелим ли надпреварата срещу поредица от противници, които може да действат в САЩ? Това е предизвикателството.“
Заплахата от дълбоки фалшификати и чуждестранно влияние е готова да се появи на изслушване в комисията по разузнаването на Сената в сряда, когато законодателите ще получат рядката възможност да разпитат публично директора на националното разузнаване и други висши служители относно чуждестранни заплахи за избори.
Въпреки че не са разположили дълбоките си фейкове през 2020 г., иранските правителствени агенти са предприели дързък опит през същата година да повлияят на гласоподавателите, като имитират крайнодясната група Proud Boys и разпространяват видео, което претендира да покаже хакването на база данни за регистрация на избиратели в САЩ, според на американските прокурори.
„Фактът, че иранците направиха глупостите на „Гордите момчета“, но не опитаха дълбоки фалшификати, беше или липса на вяра във възможностите, или знак за липса на ясни вътрешни насоки“, каза човек, запознат с разузнаването, пред CNN.
Изгубени в превода
За да бъдат ефективни операциите за чуждестранно влияние, те също трябва да имат резонанс сред американската общественост, нещо, с което Китай се бори, каза бившият високопоставен американски служител.
„Мисля, че това е очевидно културно произведение“, каза бившият служител. „Те наистина имат много трудно разбиране на проблемите, които предизвикват разделение, или непременно как да играят на тези въпроси, където руснаците не го правят.“
Generative AI или AI, използван за създаване на видео, аудио, изображения или текст, е направил чуждестранните влиятелни актьори по-ефективни при създаването на съдържание, но „няма доказателства, че е направил тях или техните кампании по-ефективни“, каза Лий Фостър, експерт по проследяване на операции за чуждестранно влияние онлайн.
„Генеративният AI досега не е помогнал на актьорите да разрешат основното пречка, пред което са изправени: разпространението“, каза Фостър, който е съосновател на фирмата за сигурност на AI Aspect Labs. „Актьорите рядко са се борили със създаването на съдържание. Поставянето му пред правилните очи в смислен мащаб беше и продължава да бъде препънатата точка, която AI досега не им е помогнал да преодолеят.“
Фостър и други експерти предупредиха да не се преувеличава въздействието на операциите за чуждестранно влияние, включително тези, които използват AI, тъй като това е от полза за самите пропагандисти.
Дезинформация в САЩ
Но САЩ остават плодородна почва за конспиративни теории, независимо дали са вътрешни или чуждестранни по произход.
Близо 70% от републиканците и привържениците на републиканците казаха, че изборната победа на президента Джо Байдън през 2020 г. не е легитимна, според анкета на CNN, публикувана през август.
А положителните възгледи на много държавни институции са „a
